Sau khi Chiến dịch Barbarossa nổ ra, lữ đoàn của Gorshkov đã tham gia tích cực vào các hoạt động của Hạm đội Biển Đen ngày từ những ngày đầu tiên của chiến tranh. Ngày 16 tháng 9 năm 1941, Gorshkov được thăng quân hàm Chuẩn đô đốc Trong chiến dịch phòng thủ Odessa, Gorshkov là người chỉ huy cuộc đổ bộ của thủy quân vào khu vực Grigoryevka. Tháng 10 năm 1941, ông được cử làm chỉ huy hải đoàn Azov. Cuối tháng 12 và đầu tháng 1 năm 1942, ông chỉ huy cuộc đổ bộ lên bờ biển phía bắc của bán đảo Kerch. Trong tháng 8, Gorshkov chỉ huy một lực lượng đông đảo gồm hơn 150 tàu chiến của hải đoàn, đột kích từ Biển Azov đến Biển Đen sau khi Hồng quân Liên Xô rút về Novorossiysk. Sau khi hải đoàn bị giải tán, ông trở thành phó chỉ huy lực lượng hải quân và là thành viên của hội đồng quân sự của Khu phòng thủ Novorossiysk. Là một đô đốc hải quân, tuy nhiên Gorshkov có thời gian ngắn nắm tạm quyền chỉ huy Tập đoàn quân 47 phòng thủ vệ khu vực trong Chiến dịch Kavkaz vào tháng 11 năm 1942. [1]

Sau khi Hải đoàn Azov được cải tổ lại vào tháng 2 năm 1943, Gorshkov được tái bổ nhiệm làm chỉ huy trưởng và chỉ huy hải đoàn tham gia các cuộc đổ bộ lên Taganrog, Mariupol và Osipenko, cũng như hỗ trợ Phương diện quân Bắc Kavkaz trong chiến dịch chiếm bán đảo Taman. Trong Chiến dịch Kerch – Eltigen tháng 11 năm 1943, Gorshkov đã đích thân giám sát việc chuẩn bị và đổ bộ cho cuộc tấn công chính. Vì khả năng lãnh đạo các hoạt động đổ bộ, ông đã được trao tặng Huân chương Kutuzov hạng 1, cùng lúc với Huân chương Ushakov hạng 2, vì thành tích chỉ huy hải đoàn trong quá trình tái chiếm Krym. [1]

Tháng 4 năm 1944, Gorshkov được bổ nhiệm làm chỉ huy trưởng Giang đoàn Danube. Ông đã chỉ huy đơn vị trong Chiến dịch tấn công chiến lược Iaşi–Chişinău, hỗ trợ Phương diện quân Ukraina 3 trong cuộc vượt sông Dnister và tiến vào cùng châu thổ sông Danube vào tháng 8 năm 1944. Ngày 25 tháng 9 năm 1944, Gorshkov được thăng lên quân hàm Phó đô đốc.

Từ tháng 9 đến tháng 11 năm 1944, đơn vị của Gorshkov tiếp tục hỗ trợ các Phương diện quân Ukraina 2 và Phương diện quân Ukraina 3|3]] trong các chiến dịch tấn công Beograd và Budapest. Tháng 12 năm 1944, ông được chuyển sang chỉ huy hải đoàn của Hạm đội Biển Đen, kết thúc chiến tranh ở vị trí đó. Ông đã được đề cập đến 7 lần trong các mệnh lệnh của Stalin với tư cách là Tổng tư lệnh tối cao lực lượng vũ trang Liên Xô.[1]